Nhiều loại idiophones và lamellaphones khác nhau đã tồn tại ở Châu Phi từ hàng nghìn năm. Ban đầu các phìm đàn được làm bằng tre nhưng qua nhiều năm các phím kim loại đã được phát triển. Những dòng nhạc cụ này dường như đã được sáng chế ra hai lần ở châu Phi: một loại có phím làm bằng gỗ hoặc tre xuất hiện ở bờ biển phía tây của châu Phi khoảng 3.000 năm trước, và những chiếc lamellophones có phím bằng kim loại xuất hiện ở thung lũng sông Zambezi khoảng 1.300 năm trước.[7] Các loại có phím bằng kim loại đã được truyền đi khắp lục địa, trở nên phổ biến trong cộng đồng người Shona tại Zimbabwe (từ đó sinh ra từ mbira) và các nhóm bản địa khác ở Zimbabwe và Mozambique.[8] Mbira đã được phân ra nhiều loại theo hình dạng và mục đích sử dụng khi chúng trở nên phổ biến. Các nhạc cụ có hình dạng tương tự Kalimba đã tồn tại từ khu vực Bắc Phi đến phía nam của sa mạc Kalahari, và từ bờ biển phía đông đến bờ biển phía tây, mặc dù đa số các sắc dân ở châu Phi không sử dụng mbira. Có hàng nghìn giai điệu với bố cục nốt nhạc khác nhau và thiết kế khác nhau, nhưng theo giả thuyết có một cách điều chỉnh và bố trí các nốt của các loại mang phím kim loại nguyên bản từ 1.300 năm trước, được gọi là 'lõi kalimba'.[9][10]

Vào giữa những năm 1950, các nhạc cụ dòng mbira là cơ sở cho sự phát triển và phổ biến của kalimba, một phiên bản phương Tây được thiết kế và quảng bá bởi nhà dân tộc học Hugh Tracey, dẫn đến việc mở rộng phân phối dòng nhạc cụ này bên ngoài châu Phi.[11][12]